Democratic Inputs to AI

OpenAIがAIのルール決定のための民主的プロセスを推進する助成金プログラムを開始

解説 by nishio.icon

5/25、「AIの総本山」ChatGPTを開発しているOpenAIからアナウンスされた

OpenAI「民主的プロセスを改善する実験を支援します」

総額$1,000,000……いちおくえん？！

何これ？民主的プロセス？？OpenAIはなぜこれに1億円も出すの？？？

「Democratic Input to AI」の目的

AIは経済的社会的に広範囲な影響をもたらす

「AIがどうあるべきか」の意思決定が、営利企業の経営陣のような「少数の人間」によって行われるのは正しくない

公共の利益を反映した「多様な視点」によって形成されるべき

この方向性の第一歩を踏み出すために実験プロジェクトを支援する

「AIシステムが従うべきルールとは何か」という疑問に答えることができる民主的プロセスの概念実証を開発するチームを募集する

意思決定に関連する問題を探求し、将来的にはより直接的に意思決定に情報を提供できるような、新たな民主的ツールを構築することを期待している。

gpt-4.icon

以下は、OpenAIのブログ記事「Democratic Inputs to AI」の要約として、日本語の箇条書き形式で提供します。

OpenAIは、AIシステムがどのようなルールに従うべきかを決定するための民主的なプロセスを設定する実験を資金提供するために、10つの$100,000の助成金を授与するプログラムを開始します。

AIは個々の人々の生活、相互作用の方法、そして社会全体が進化する方法を形成します。そのため、AIの振る舞いについての決定は、公共の利益を反映した多様な視点によって形成されるべきです。

AIは法的な枠組みを超えて、より詳細で適応性のあるガイドラインが必要です。これらの決定を一つの個人、企業、あるいは国が独断で決定すべきではありません。

この助成金プログラムは、この方向への最初の一歩として開始されます。世界中からチームを募集し、AIシステムがどのようなルールに従うべきかについての問いに答えるための民主的なプロセスの概念証明を開発することを求めています。

最も強力なシステムのガバナンスとその展開に関する決定は、強力な公的監督が必要です。この助成金は、AGIと最終的には超知性の監督のための民主的なプロセスを確立する一歩として提供されます。

「民主的なプロセス」とは、広範な代表グループが意見を交換し、対話的な議論を行い、最終的には透明な意思決定プロセスを通じて結果を決定するプロセスを意味します。

助成金を申請するためには、2023年6月24日午後9時PSTまでに必要な申請資料を提出するように招待されます。成功した助成金受領者は個人、チーム、または組織である可能性があります。各受領者は、申請資料に記載された提案をパイロットとして実施するために$100,000の助成金を受け取ります。